Y tự Thúc Hạ, tên lúc nhỏ (tiểu tự) là Dã Vương hay Tử Dã [lower-alpha 1], người huyện Chí, nước (quận) Tiếu [lower-alpha 2]. Y là cháu họ (tộc tử) của danh tướng Hoàn Tuyên; cha là Hoàn Cảnh, cũng là bậc tài cán đương thời, được làm quan đến Thị trung, Đan Dương doãn, Trung lĩnh quân, Hộ quân tướng quân, Trường Xã hầu. [1]

Y có tài võ nghệ, tính thông minh, giản dị, được Vương Mông, Lưu Đàm xem trọng, lần lượt được làm Tham quân sự ở các phủ của họ, dần thăng làm tham quân cho Đại tư mã Hoàn Ôn. Bấy giờ Tiền Tần cương thịnh, biên thùy nhiều nỗi lo, triều đình bàn bạc chọn người có thể chiến đấu bảo vệ lãnh thổ, bèn thụ Y làm Hoài Nam thái thú. Nhờ tổ chức phòng ngự có phương pháp, Y được tiến làm Đốc Dự Châu chi 12 quận, Dương Châu chi Giang Tây 5 quận quân sự, Kiến uy tướng quân, Lịch Dương thái thú, Hoài Nam thái thú như cũ. [1]